就在刚刚，OpenAI前安全副总裁Lilian Weng，疑似爆出了90亿估值神秘新公司Thinking Machines的首个产品——一台专为AI训练打造的「手动调参仪表盘」？
学习大模型的优质博客又更新了！
OpenAI前CTO Murati离职后，终于官宣新动向！她创立的「思考机器实验室」汇聚了OpenAI、谷歌DeepMind等顶尖AI人才，包括OpenAI联合创始人Schulman、前安全副总Lilian Weng等。
投资界获悉，备受关注的前OpenAI研究与安全副总裁翁荔（Lilian Weng）近日宣布，她正式加入硅谷早期投资机构Fellows Fund的Fellow团队，担任Distinguished Fellow，开启新一段征程。
Lilian Weng离职OpenAI后首篇博客发布！文章深入讨论了大模型强化学习中的奖励欺骗问题。随着语言模型在许多任务上的泛化能力不断提升，以及RLHF逐渐成为对齐训练的默认方法，奖励欺骗在语言模型的RL训练中已经成为一个关键的实践性难题。
据ZP独家报道，前OpenAI研究与安全副总裁Lilian Weng已加盟Fellows Fund，担任新的Distinguished Fellow。
之前领导OpenAI安全团队的北大校友翁荔（Lilian Weng），离职后第一个动作来了。当然是发～博～客。这次的博客一如既往万字干货，妥妥一篇研究综述，翁荔本人直言写起来不容易。主题围绕强化学习中奖励黑客（Reward Hacking）问题展开，即Agent利用奖励函数或环境中的漏洞来获取高奖励，而并未真正学习到预期行为。
翁荔的技术博客深入、细致，具有前瞻性，被很多 AI 研究者视为重要的参考资料。如今，她离开了 OpenAI，开启新的征程。而且她表示，之后可能有更多时间频繁更新博客。
OpenAI研究副总裁（安全）翁荔（Lilian Weng），现身国内！ 还首次在国内大型活动场合公开发表AI主题演讲。
人会有幻觉，大型语言模型也会有幻觉。近日，OpenAI 安全系统团队负责人 Lilian Weng 更新了博客，介绍了近年来在理解、检测和克服 LLM 幻觉方面的诸多研究成果。
